LLM2Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them
LLM2Jev：LLM 已是 Jev 风格决策模型——何时及如何微调
🧭 LLM 决策建模与结构化输出
Microsoft
提出 LLM2Jev 框架，直接利用括号数字标识符的 next-token 概率提取校准决策，无需训练即可让 4B LLM 匹配专用 Jev 模型
📌 工作参考价值（4 点）
- 电商/广告中的意图路由、分类、证据校验等决策任务，可直接用 LLM 输出括号数字标识符（如 [1]、[2]），从 next-token 概率 读取每个选项的概率分布，完全跳过文本生成与解析，降低延迟并消除格式错误风险。
- 面对任意数量的候选选项（如商品类目、投放策略），无需预先确定选项个数，框架天然支持动态选项集，适合线上 A/B 测试和策略切换。
- 对于弱基座模型或高难度多选项任务，用 LoRA + 树因子化 listwise loss + KL 锚定 微调可稳定提升决策准确率，同时保持对话/文本生成能力不退化；强基座模型则可直接零样本使用，节省训练成本。
- 多模态决策支持：可直接对图像输入（如商品图）做决策，无需额外适配，适合电商图文混合场景。